Fast Multi-dimensional Refusal Subspaces via RFM-AGOP
基于 RFM-AGOP 的快速多维拒绝子空间提取
🧭 LLM 安全对齐 · 多维子空间提取
Télécom SudParis, Évry-Courcouronnes, France · ENS Paris-Saclay, Gif-sur-Yvette, France
利用递归特征机算法高效识别大模型的多维拒绝子空间，速度提升显著且消融效果更优
📌 工作参考价值（4 点）
- 电商/Agent 场景中若使用 LLM 生成推荐理由或交互回答，可借鉴该方法快速定位“拒绝回答”或内容过滤相关的激活子空间，低成本实现安全对齐。
- RFM 算法的高效性允许多轮在线监控，适合对延迟敏感的生产环境，比如在 Agent 每次响应前实时检测有害意图。
- 该方法只需少量探测样本即能初始化，可迁移到垂直领域的偏好控制（如避免生成竞品信息），无需从头训练分类器。
- 消融实验结果提示 RFM 提取的子空间比传统方法更精确，能减少对正常回复的误伤，适合需要保持转化率的推荐文案生成。